RECAST: Learning to Compute the Right Context through Adaptive Evidence Routing
自适应证据路由:学习计算正确上下文
🧭 自适应证据路由 · RAG 与计算融合 ★ 深度解读
MIT · Google Research
提出RECAST,将证据构建视为检索与计算操作的序列决策,用轻量RouterLM迭代选择/合成操作,在6个基准上平均准确率达75.6%,超最强基线15.9%
📌 工作参考价值(4 点)
- 把检索和计算统一为证据操作:在电商推荐/搜索场景中,不要只把用户历史或商品池当作检索对象;可把 SQL 聚合、Python 特征计算、代码合成作为等同的“证据获取”原语,让系统从原始数据中派生可用的上下文,而不仅仅是召回已有片段。
- 用轻量 RouterLM 做调度,冻结大模型做编译和回答:业务上可显著降低大模型调用成本;LoRA 微调小模型即可超过更大黑盒模型,适合需要在低延迟下做复杂证据构建的场景。
- SFT+GRPO 训练技巧可复用:从成功轨迹中选 SFT 专家,再用混合成败轨迹做 GRPO,配合 reward shaping(正确性 0.9 + token F1 0.08 + 结构 0.02)和 mixed-outcome filtering,比仅用正确性奖励提升明显,且样本效率更高。
- 规则化预处理 + compact source profile:将异构数据(表、文本、用户画像)统一为 records 并生成紧凑概要,避免把完整 source 塞进 prompt,能降低 token 成本并让路由模型更聚焦于证据需求。